Mặc dù Sendai đã có người sinh sống từ cách đây 20.000 năm, nhưng lịch sử của thành phố Sendai thì mới bắt đầu từ năm 1600.

Lãnh chúa Masamune không hài lòng về phần lãnh địa và thành trì Iwadeyama trước đó của ông ta. Iwadeyama nằm ở phía bắc vùng đất của ông và từ đó rất khó khăn để đến Edo (Tokyo hiện nay). Trong khi đó, Sendai là một địa điểm lý tưởng, tọa lạc ngay trung tâm vùng đất mà Masamune mới giành được, nằm trên con đường chính đến Edo, và còn gần biển nữa. Tokugawa Ieyasu đã cho phép Masamune xây dựng thành quách ở Aobayama, Sendai sau trận thắng Sekigahara. Vào thời điểm đó, chữ Sendai được viết là 千代 - "Thiên Đại", vì ở Aobayama có một ngôi đền với 1000 bức tượng Phật (千体 sentai – thiên thể). Masamune đã đổi cách viết chữ Kanji của thành phố thành 仙台 - "Tiên Đài". Masamune xây dựng thành Sendai vào tháng 12 năm 1600 và bắt tay xây dựng Sendai thành một thị trấn vào năm 1601. Những đồ án của ông ngày đó đã tạo cơ sở cho hệ thống đường sá ở trung tâm thành phố ngày nay.

Sendai được hợp nhất thành thành phố vào ngày 1 tháng 4 năm 1889, là kết quả của sự loại trừ chế độ lãnh địa phong kiến. Vào thời điểm hợp nhất, diện tích thành phố là 17,45 km² và dân số là 86.000 người. Tuy nhiên, thành phố lại qua tiếp bảy lần sáp nhập nữa, từ 1928 tới 1988. Thành phố như bây giờ bắt đầu từ tháng 4 năm 1989. Năm 1999, dân số thành phố đã vượt quá 1 triệu người.

Sendai bắt đầu được biết tới như một thành phố của cây cối (森の都 Mori no Miyako) từ trước Chiến tranh thế giới thứ hai. Đó là vì các lãnh chúa của Sendai đã khuyến khích dân trồng cây cối trong sân nhà. Kết quả là mọi ngôi nhà, ngôi đền và điện thờ ở trung tâm thành phố đều có những khu rừng gia đình (屋敷林 Ốc Phu Lâm,yashikirin), được sử dụng như nguồn cung cấp gỗ và những nguyên liệu hàng ngày. Những cuộc oanh tạc trong Chiến tranh thế giới thứ hai đã phá huỷ gần hết mọi cây cỏ, và một số lượng lớn nữa bị tiêu hao cho công cuộc phát triển phục hồi đất nước sau chiến tranh. Sendai vẫn được biết đến như "Thành phố của Cây cối", vì một cố gắng rất to lớn nhằm phục hồi lại cây xanh trong thành phố.